Pretraining Reusable Inference Across Views with Synthetic Task Priors
预训练跨视图可重用推理与合成任务先验
🧭 多视图推理预训练 · 合成任务先验
Zhejiang University · Hong Kong Baptist University
用合成任务先验预训练多视图推理过程，冻结或轻量 adapter 即可跨任务复用
📌 工作参考价值（3 点）
- 多视图/多模态推荐中，不同视图（用户行为、物品文本、图片、知识图谱）的融合策略通常每个任务重训；可借鉴把“视图融合推理”本身做成可迁移过程，在新任务上仅用少量 support 样本（few-shot）条件化预测，大幅减少训练成本。
- 合成任务先验的构建方式可迁移：在 embedding 空间生成多样化的 support-query episodes，模拟视图缺失、噪声、跨视图依赖、分布偏移等，用于预训练鲁棒的多视图融合 backbone；电商场景中特征缺失、新场景冷启动频繁，可通过此类可控生成器增强模型泛化。
- In-context learning 思路适合线上快速适配新活动或新类目：无需梯度更新，仅通过 few-shot labeled support 即可进行推理；结合轻量 adapter 做任务特定校准，兼顾通用性与专用性，可参考共享 backbone + 轻量 adapter 的多任务架构。